"Başarmak istediğimin tam tersi": AB'nin yapay zeka yasasının baş yazarı her şeyi açıklıyor

AB'nin en önemli Yapay Zeka yasasının baş yazarıdır. Bu belgeye yıllarını adadı. Ancak Gabriele Mazzini, Yapay Zeka Yasası'nı şimdi bir başarısızlık olarak görüyor. Öyle ki, üzerinde çalışmaya devam etmek için vicdanıyla hesaplaşamıyor. Hatta Avrupa Komisyonu'ndaki iyi maaşlı görevinden bile istifa etti. NZZ gazetesine, kendi görüşüne göre mantıklı bir yasanın nasıl bir canavara dönüştüğünü ilk kez ayrıntılarıyla anlatıyor.

Sayın Mazzini, yapay zekâ yasasının baş yazarı nasıl oldunuz?

Teknoloji düzenlemelerine olan ilgim beni 2017'de Avrupa Komisyonu'na getirdi. Daha önce Afrika'da kalkınma yardımları ve New York'taki girişimlerde çalıştım. Bu iki deneyim de bana teknolojinin etkisini gösterdi. AB'de, en başından beri yapay zekanın sorumluluk ve etik konular üzerindeki etkisine odaklandım. Von der Leyen 2019'da yapay zekayı düzenlemeye karar verdiğinde, bu metni hazırlamakla görevlendirildim.

Yapay Zeka Yasası üzerinde çalışmayı nasıl hayal edebilirsiniz?

Konuyu araştırdım, uzmanlarla görüştüm ve mevzuatın yapısını tasarladım: Yapay zekanın kendisini değil, yapay zeka ürünlerini düzenleme ve bunları risk kategorilerine göre sınıflandırma fikri. Küçük bir ekibin liderliğini yaptım; üçümüz birlikte AB Komisyonu'nun ilk teklifinin metnini hazırladık.

Nisan 2021'de yayımlandı. Yani taslak üzerinde neredeyse üç yıl çalıştınız?

Yazım nispeten hızlı ilerledi. Asıl çaba, araştırma, koordinasyon ve çeşitli departmanlarla önceden yapılan müzakereleri içeriyordu.

Yapay Zeka Yasası bu bahardan bu yana kademeli olarak yürürlüğe giriyor. İlk taslağınızla ne kadar ilgisi var?

Yapay zekayı bir ürün gibi düzenleme, yani riske dayalı güvenlik standartları gerektirme fikri bana aitti. Ancak günümüz yasası çok daha karmaşık, daha fazlasını kapsıyor ve daha fazla ayrıntı öngörüyor; çoğu zaman da geçerli bir sebep olmadan. Bu, biçiminden de belli: Orijinal 85 madde, 89 giriş ve 9 ek, 113 madde, 180 giriş ve 13 eke dönüştü. Ayrıca, açıklayıcı belgeler de mevcut. Ancak en kötü yanı, yeni metnin olması gerektiği kadar açık olmaması.

Peki arada neler yaşandı?

Kısa cevap: Chat-GPT ve muazzam bir zaman baskısı. Ama biraz daha açıklayayım. AB mevzuatında Komisyon, üye ülkelerin ilgili bakanlarından oluşan Avrupa Birliği Parlamentosu ve Konseyi'nin onaylaması gereken mevzuat teklif eder. Detaylar sık ​​sık değişir. Bu, tartışmalar gerektirir. Süreç zaman alır. Ancak Chat-GPT'nin yayınlanmasından sonra, konu üzerinde aniden muazzam bir baskı oluştu. Kıyamet senaryoları dolaşmaya başladı. Elon Musk'ın da imzasını taşıyan, Yapay Zeka geliştirme çalışmalarına altı aylık bir ara verilmesini talep eden Geleceğin Yaşamı Enstitüsü'nden gelen mektubu hatırlıyor musunuz? Bu, birçok politikacı ve bürokratı etkilemişti. Dahası, Parlamento ve von der Leyen Komisyonu'nun görev süreleri sona eriyordu ve yeni seçimlerden sonra tamamen yeni bir durumun ortaya çıkmasından korkuluyordu. Herkes bir an önce bir yasa çıkarmak ve "Biz sizin için bunu hallederiz. Oyunun ilerisindeyiz ve kontrolümüz altındayız" diyebilmek için hırslıydı.

Dünyanın sonunun yaklaştığına dair bu panik, bugünün bakış açısıyla bakıldığında açıkça abartılıydı.

Evet, söylem tamamen değişti. Yaklaşık bir yıl önce, AB'nin teknoloji şirketleri konusunda ne kadar geride kaldığını vurgulayan Draghi Raporu yayınlandı. Aşırı düzenlemeden endişe duyuyoruz. Yapay Zeka Yasası tartışılırken bu bir sorun değildi. 2023'te von der Leyen, Birliğin Durumu konuşmasında yapay zekanın insanlığı yok etme riskinden bahsetti. Bu olağanüstü bir durum. Ancak o zamanlar, Open AI CEO'su bir blog yazısında sıkı düzenlemeler çağrısında bulunmuştu. "Bu son derece tehlikeli şeyi biz inşa ettik, bizi dinleyin ki sizi nasıl koruyacağınızı söyleyebilelim." O zamanlar söylem buydu.

İlgili politikacıları ve yetkilileri, tehlikede olan biten hakkında yeterince bilgilendirilmedikleri için mi suçluyorsunuz?

Evet. İlgili herkes konuyu kendi başına okumak, düşünmek, karşıt görüşleri bir araya getirmek ve böylece kendi önceliklerini belirlemek için zaman ayırmalıydı. 2023'te yanlış yolda olduğumuz zaten belliydi. Sağlam yasalar, korku ve zaman baskısı altında ortaya çıkmaz.

Bu konuda ne hissettiniz?

Kendimi yalnız hissettim. 2023 sonbaharında, üstlerime olup bitenlere katılmadığımı söyledim. Ama bu hiçbir şeyi değiştirmedi. Elbette, hiçbir şeyi durduracak gücüm yoktu; hiyerarşide çok alt kademedeydim ve önemli toplantılarda bulunmuyordum. Ama uzman görüşümün geçerli olacağını ummuştum; sonuçta bu dosya üzerinde herkesten daha fazla çalışmıştım. Ve daha da önemlisi, bu, AB'nin gelmiş geçmiş en önemli yasalarından biriydi. Herkes bunu anlamalıydı.

Aralık 2023'te üç kurum, anlaşmaya vardıklarını kamuoyuna duyurdu.

Bu, büyük bir zafer olarak sunuldu. Ancak AB üye ülkelerinin onayı henüz gelmemişti. Şubat 2024'te Yapay Zekâ Yasası bu engeli de aştı. Ve ben karar verdim: Ya bana bir şeyleri değiştirme şansı verilmeliydi ya da istifa etmeliydim. Çünkü hayatımı inanmadığım ve etki gücümün olmadığı bir şeyi uygulamaya harcayarak geçirmek istemiyordum.

Üstleri belli ki pes etmedi.

Hiçbir yanıt alamadım. Bu belge üzerinde en çok çalışan kişiyi kaybetme riskini göze aldılar.

Kalsaydın terfi alır mıydın?

Konuşmasaydım muhtemelen konuşurdum. Böylesine büyük bir projeyi tamamladıktan sonra genellikle terfi alırsınız. Ama bunun bana ne faydası olurdu ki? Dürüstlüğümden vazgeçmiş olurdum. İşimi her zaman sevdim. Komisyon'da iyi bir amaç için çalıştığınıza dair bulaşıcı bir inanç var. İşlerin ters gittiğini hissettiğinizde, buna katlanmak zor. Tesadüfen, tam da Yapay Zeka Yasası'nın yürürlüğe girdiği gün, 1 Ağustos 2024'te ayrıldım. Bugün bir vatandaş olarak kişisel fikrimi ifade edebildiğim için çok rahatladım.

Yönetmeliğin bugünkü haliyle ilgili sorununuzu açıklayınız.

Şu soruyla başladık: Riskleri en aza indirirken yeni bir teknolojiyi nasıl tanıtırsınız? Kalite standartlarıyla güven oluşturmak istedik. Riskli bir alanda yapay zekâ ürünü geliştiren herkes bu standartları garanti altına almalıdır. Bu sorun değil. Ancak teknoloji ve kullanım örnekleri hala gelişmekte olduğundan, yalnızca gerekli olanları düzenlemeye çalışmalı ve kullanım örneklerini daha sonra genişletmeliyiz. Dahası, yapay zekâ için halihazırda birçok düzenleme, örneğin veri koruması, geçerlidir. Yeni yapay zekâ yükümlülükleri bu kurallarla uyumlu olmalıdır. Durum böyle değil. Ayrıca büyük dil modellerinin bu kadar hızlı düzenlenmesine de karşıydım. Burada daha fazla zamana ihtiyaç olurdu.

Bazıları bu kadar hızlı hareket etmenin iyi bir hamle olduğunu söylüyor. Bu durum, veri korumasında olduğu gibi, düzenlemenin dünya çapında bir model haline geldiği Brüksel etkisine yol açabilir.

Ben böyle bir etki hissetmiyorum. Diğer ülkeler AB düzenlemeleriyle ilgileniyor, ancak bunu bir model olarak görmüyorlar. Ayrıca şunu da bilmelisiniz: İlk veri koruma direktifi 1992'de taslak olarak hazırlandı. Ardından kavramların geliştirildiği ve bir kültürün oluştuğu yıllar geçti. 2012'de Genel Veri Koruma Tüzüğü (GDPR) önerildi. Ardından yasalaşması dört yıl daha sürdü. Yapay Zeka Yasası ile tüm süreç yalnızca üç yıl sürdü.

Sadece on yıl önce, GDPR yasasının kesinleşmesi bir sonraki yasama dönemine bırakılmıştı. AB Komisyonu o zamanlar popülist haleflerden daha mı az korkuyordu?

Sebebini bilmiyorum. Ama eski yasalar açıkça daha iyi, daha tutarlı. Diğer yeni AB dijital yasaları da pek kaliteli değil. Bugünlerde her şey aceleyle çıkarılıyor gibi görünüyor.

Google ve Facebook eskiden daha da güçsüzdü. Teknoloji sektörünün lobi faaliyetleri olumsuz bir etkiye sahip mi?

Şahsen, lobi faaliyetlerinin baskısını hiç hissetmedim. Kapım, dahil olmak isteyen herkese her zaman açıktı. Nitekim, Yapay Zeka Yasası'nın nihai metni, teknolojiyi kısıtlamaya yoğun bir şekilde odaklanmış durumda; pek de iş dostu değil. Bu anlamda, lobi faaliyetleri pek başarılı olmadı.

Fransa, Almanya ve İtalya'nın genel yapay zeka modellerinin düzenlenmesini eleştirdiği bir an vardı; bunun başlıca nedeni, yapay zeka umutları olan Mistral ve Aleph Alpha'nın protestosuydu.

Ne yazık ki, o dönemde bu, söz konusu ülkelerin kendi endüstrilerini koruma girişimi olarak yorumlandı. Bir bürokrat olarak bu tartışmada tarafsızdım. Sadece iyi ve kanıta dayalı mevzuatla ilgileniyordum. Ancak işleri yavaşlatıp uluslararası alanda daha fazla koordinasyon sağlama dürtüsünün doğru olduğunu düşünüyordum. Ancak genel telaş içinde, sivil toplum ve tüketici savunucularının yoğun etkisiyle Parlamento galip geldi. Aklın sesi olması gereken Komisyon müdahale etmeliydi.

Ne demek istiyorsun?

Komisyon karar vermek için orada değil. Bunu AB Parlamentosu ve Konseyi yapmalı. Ancak Komisyon, AB'de en fazla kaynağa ve bilgiye sahip. Bu uzmanlığı, gerçeklere ve kanıtlara dayanarak kendini konumlandırmak için kullanmalı; böylece iyi yasalar oluşturulabilir. Bunu yapmazsa, bu sistemin mantığı çöker. O zaman tüm bu bürokratik mekanizmaya gerek kalmaz.

Yeniden başlayabilseydin neyi farklı yapardın?

Bu kadar az yetkiyle bu kadar önemli bir şeyi bir daha yapmazdım. Hukuka gelince, bugün yapay zeka teknolojisinin düzenlenmesi gerekip gerekmediği konusunda şüphelerim var. Tek bir büyük buluşa güvenmek yerine, belirli yasal boşlukları kapatmak daha iyi olurdu.

Peki bu noktada değişiklik yapmak için hangi fırsatları görüyorsunuz? Yapay Zeka Yasası yavaş yavaş yürürlüğe giriyor.

Ben olsam durdurur ve mevcut olanı tersine çevirirdim - ya da kökten değiştirirdim. Çünkü şu anda yasal belirsizlik var ve bu yüzden birçok kişi uygulamanın durdurulması için baskı yapıyor. Metin yoruma çok açık bırakıyor. Bu da özellikle büyük teknoloji şirketlerinin kendi görüşlerini dayatmaya çalışacağı devasa bir gri alan yaratıyor. Komisyon şimdi yüzlerce sayfa ek kılavuz, davranış kuralları, şablonlar vb. hazırlıyor. Ancak bu bir çözüm değil. Aksine, bu belgeler daha da fazla kafa karışıklığına yol açıyor. Çünkü yasal olarak bağlayıcı değiller ve şirketlere dava edilmeyeceklerine dair hiçbir güvence vermiyorlar.

Bu durum AB'deki yapay zeka şirketleri için ne anlama geliyor?

Üzücü. Düzenlemelerin taraftarıyım, ama tüm düzenlemelerin taraftarı değilim. Kanunlar, piyasadaki en iyilerin galip geldiği oyunun kuralları olmalı. Ancak bunun gibi muğlak kanunlar tam tersi bir etki yaratıyor. Harika teknolojiye sahip şirketler, düzenlemelerin altında ezildikleri ve olumsuz sonuçlardan korktukları için yavaşlayabilirler. Bazı şirketler yapay zekadan tamamen uzak duracak. Diğerleri ise artık avukat tutacak, kağıt üzerindeki tüm gereklilikleri karşıladıklarından emin olacak ve hatta bundan avantaj elde edebilecekler. Bu, benim ulaşmak istediğim herkes için eşit şartlar sağlamanın tam tersi.